A flexible method is developed to construct a confidence interval for the frequency of a queried object in a very large data set, based on a much smaller sketch of the data. The approach requires no knowledge of the data distribution or of the details of the sketching algorithm; instead, it constructs provably valid frequentist confidence intervals for random queries using a conformal inference approach. After achieving marginal coverage for random queries under the assumption of data exchangeability, the proposed method is extended to provide stronger inferences accounting for possibly heterogeneous frequencies of different random queries, redundant queries, and distribution shifts. While the presented methods are broadly applicable, this paper focuses on use cases involving the count-min sketch algorithm and a non-linear variation thereof, to facilitate comparison to prior work. In particular, the developed methods are compared empirically to frequentist and Bayesian alternatives, through simulations and experiments with data sets of SARS-CoV-2 DNA sequences and classic English literature.

不确定性量化是针对安全至关重要系统（例如医疗保健或自动驾驶汽车）的机器学习模型的关键组成部分。我们在元学习的背景下研究了这个问题，其目标是快速使预测因子适应新任务。特别是，我们提出了一种新颖的算法来构建\ emph {pac预测集}，该算法通过一组标签捕获不确定性，该标签可以通过仅几个培训示例来适应新任务。这些预测设置满足了典型的PAC保证对元学习设置的扩展；特别是，PAC保证对未来任务的可能性很高。我们证明了在三个应用程序域中的四个数据集上的方法的功效：视觉域中的Mini-ImageNet和Cifar10-C，语言域中的很少的MINGREL，以及医疗域中的CDC Heart数据集。特别是，与其他满足此保证的基线相比，我们的预测设置满足PAC保证，同时具有较小的大小。

我们考虑在高维空间中学习数据的判别性表示的问题，并在多个低维线性子空间上或周围支持分布。也就是说，我们希望计算数据的线性注射映射，以便该功能位于多个正交子空间上。我们没有使用多个PCAS处理这个学习问题，而是使用最近提出的用于学习一般低维基符号的判别性和生成性表示的闭环转录（CTRL）框架作为顺序游戏。我们证明，游戏的平衡解决方案确实提供了正确的表示。我们的方法通过表明可以证明使用现代表示学习工具包可以解决子空间学习问题，从而将学习子空间的经典方法统一了学习子空间。此外，在线性子空间的重要情况下，我们的工作为CTRL框架提供了第一个理论理由。我们以令人信服的经验证据来支持我们的理论发现。我们还将顺序的游戏公式推广到更通用的表示学习问题。我们的代码，包括容易复制实验结果的方法，在GitHub上公开可用。

我们在从傅立叶角度得出的同质空间上引入了一个统一的框架。我们解决了卷积层之前和之后的特征场的情况。我们通过利用提起的特征场的傅立叶系数的稀疏性来提出通过傅立叶域的统一推导。当同质空间的稳定子亚组是一个紧凑的谎言组时，稀疏性就会出现。我们进一步通过元素定位元素非线性引入了一种激活方法，并通过均等卷积抬起并投射回现场。我们表明，其他将特征视为稳定器亚组中傅立叶系数的方法是我们激活的特殊情况。$ SO（3）$和$ SE（3）$进行的实验显示了球形矢量场回归，点云分类和分子完成中的最新性能。

机器学习模型的性能会在数据的分布变化下大大降低。我们提出了一种新的分类方法，可以通过将有关数据的“高级”结构与标准分类器相结合，可以改善分配变化的鲁棒性。 。然后，在每个群集中，我们通过诸如Deep Neural Networks之类的标准模型来学习基于更精细的歧视特征的本地分类器。我们在内存分类器中建立了概括界限。我们在实验中说明它们可以改善图像数据集上的分布变化的概括和稳健性。我们展示的进步超出了标准数据增强技术。

异常检测对于预防自动驾驶（例如自动驾驶）的安全性危险结果至关重要。鉴于它们的安全至关重要，这些应用程序受益于在异常检测中的各种错误中的可证明界限。为了在半监督的环境中实现这一目标，我们建议对异常检测算法的假阴性和假阳性检测率提供大致正确的（PAC）保证。我们的方法（PAC包）几乎可以围绕任何现有的半监督和无监督的异常检测方法，从而获得严格的保证。我们对各种异常检测器和数据集进行的实验表明，PAC包装是广泛有效的。

预测一组结果 - 而不是独特的结果 - 是统计学习中不确定性定量的有前途的解决方案。尽管有关于构建具有统计保证的预测集的丰富文献，但适应未知的协变量转变（实践中普遍存在的问题）还是一个严重的未解决的挑战。在本文中，我们表明具有有限样本覆盖范围保证的预测集是非信息性的，并提出了一种新型的无灵活分配方法PredSet-1Step，以有效地构建了在未知协方差转移下具有渐近覆盖范围保证的预测集。我们正式表明我们的方法是\ textIt {渐近上可能是近似正确}，对大型样本的置信度有很好的覆盖误差。我们说明，在南非队列研究中，它在许多实验和有关HIV风险预测的数据集中实现了名义覆盖范围。我们的理论取决于基于一般渐近线性估计器的WALD置信区间覆盖范围的融合率的新结合。

长期的Horizo​​n机器人学习任务稀疏的奖励对当前的强化学习算法构成了重大挑战。使人类能够学习挑战的控制任务的关键功能是，他们经常获得专家干预，使他们能够在掌握低级控制动作之前了解任务的高级结构。我们为利用专家干预来解决长马增强学习任务的框架。我们考虑\ emph {选项模板}，这是编码可以使用强化学习训练的潜在选项的规格。我们将专家干预提出，因为允许代理商在学习实施之前执行选项模板。这使他们能够使用选项，然后才能为学习成本昂贵的资源学习。我们在三个具有挑战性的强化学习问题上评估了我们的方法，这表明它的表现要优于最先进的方法。训练有素的代理商和我们的代码视频可以在以下网址找到：https：//sites.google.com/view/stickymittens

诸如深神经网络（DNN）之类的机器学习方法，尽管他们在不同域中取得了成功，但是众所周知，通常在训练分布之外的输入上具有高信心产生不正确的预测。在安全关键域中的DNN部署需要检测分配超出（OOD）数据，以便DNN可以避免对那些人进行预测。最近已经开发了许多方法，以便检测，但仍有改进余地。我们提出了新的方法IdeCode，利用了用于共形OOD检测的分销标准。它依赖于在电感共形异常检测框架中使用的新基础非符合性测量和新的聚合方法，从而保证了有界误报率。我们通过在图像和音频数据集上的实验中展示了IDecode的功效，获得了最先进的结果。我们还表明Idecode可以检测对抗性示例。

适应数据分布的结构（例如对称性和转型Imarerces）是机器学习中的重要挑战。通过架构设计或通过增强数据集，可以内在学习过程中内置Inhormces。两者都需要先验的了解对称性的确切性质。缺乏这种知识，从业者求助于昂贵且耗时的调整。为了解决这个问题，我们提出了一种新的方法来学习增强变换的分布，以新的\ emph {转换风险最小化}（trm）框架。除了预测模型之外，我们还优化了从假说空间中选择的转换。作为算法框架，我们的TRM方法是（1）有效（共同学习增强和模型，以\ emph {单训练环}），（2）模块化（使用\ emph {任何训练算法），以及（3）一般（处理\ \ ich {离散和连续}增强）。理论上与标准风险最小化的TRM比较，并在其泛化误差上给出PAC-Bayes上限。我们建议通过块组成的新参数化优化富裕的增强空间，导致新的\ EMPH {随机成分增强学习}（SCALE）算法。我们在CIFAR10 / 100，SVHN上使用先前的方法（快速自身自动化和武术器）进行实际比较规模。此外，我们表明规模可以在数据分布中正确地学习某些对称性（恢复旋转Mnist上的旋转），并且还可以改善学习模型的校准。